Transhumanisme, long-termisme… comment les courants « TESCREAL » influent sur le développement de l’IA

Selon l’éthicienne de l’intelligence artificielle Timnit Gebru et le philosophe Emile Torres, les courants transhumaniste, altruiste effectif et long-termiste infusent des idées violemment discriminantes dans le monde de l’IA.

En janvier 2023, des e-mails vieux de vingt ans font surface. On y lit le philosophe Nick Bostrom, alors directeur du Future of Humanity Institute de l’université d’Oxford, écrire que « les noirs sont plus stupides que les blancs ». Nick Bostrom est influent dans plusieurs cercles d’importance, dans le monde de l’intelligence artificielle, notamment les milieux de l’altruisme effectif et du long-termisme.

Confronté publiquement, l’homme s’excuse pour sa correspondance raciste. Il le fait d’une telle manière, cela dit, que d’autres personnalités du monde de l’intelligence artificielle, comme la linguiste Emily Bender, s’insurgent : pour elle, Bostrom s’est débrouillé pour reformuler son injure initiale.

Après cet épisode, Emile Torres s’est entretenu avec divers adeptes du long-termisme. « À peu près chaque fois, ils m’annonçaient qu’ils n’étaient pas racistes, rapporte le philosophe à Next. Ça les énerve. » Le progressisme lui-même a des racines eugénistes, pointe-t-il, « ça ne veut pas dire qu’il faut continuer de promouvoir ces idées-là, ni que le futur doit être déterminé par des idées eugénistes. »

• Transhumanisme, long-termisme… des idéologies aux racines eugénistes ?

Mis face à cette question, sourit-il, les réactions sont généralement divisées. « Certaines personnes vont fermement réfuter le fait que les idéologies TESCREAL sont racistes », ce qui n’empêchera pas leurs liens avec les thèses eugénistes d’exister. « Et d’autres, comme Peter Thiel ou le mouvement réactionnaire, seront complètement ok avec le fait d’être raciste. Elon Musk lui-même est plutôt raciste. »

TESCREAL, comme nous l’expliquions dans notre article précédent, est un acronyme derrière lequel Emile Torres et l’éthicienne de l’intelligence artificielle Timnit Gebru rassemblent divers courants de pensée influents dans la Silicon Valley : le transhumanisme, l’extropianisme, le singularitarisme, le cosmisme (moderne), le rationalisme, l’altruisme effectif et le long-termisme.

Dans un article récemment publié dans la revue First Monday, ils exposent comment la recherche d’un être « posthumain » à la « superintelligence » et la quête d’une intelligence artificielle « générale » peuvent être reliés à certaines idées au fondement du mouvement eugéniste du tournant du XXe siècle. Ils y alertent, aussi, sur la manière dont des concepts de « sûreté de l’intelligence artificielle » (AI safety) et de recherche du « bien de l’humanité » permettent en réalité à ces mouvements d’influer sur les priorités de développement en IA et de se soustraire aux obligations de rendre des comptes au plus grand nombre.

« De nombreuses personnes travaillant sur l’intelligence artificielle générale ne sont peut-être pas conscientes de leur proximité avec les points de vue et les communautés TESCREAL », préviennent d’emblée les deux scientifiques. Contestant la scientificité de la course à une « intelligence » artificielle « générale », les deux universitaires appellent à la promotion de modèles d’intelligence artificielle précisément définis, testables, et construits d’une manière qui les rendent réellement sécurisables.

L’alignement, au cœur du paradoxe